其他
为AI攻防测能力,清华联合阿里、RealAI发布全新测试基准平台Adversarial Robustness Benchmark
世界首发对抗攻防基准平台,对人工智能算法对抗攻防提供公开、公平、公正、全面的衡量,增强算法安全的鲁棒性,更好的为大众服务。
”
1. 对抗领域和传统图像分类(ImageNet)等任务不一样的地方在于,攻防是一体的,不能只考虑一种形态。
2. 对抗攻防不仅仅只有数据集,数据集是针对攻击数据,是由攻击算法生成的。
通俗来讲,现在很多神经网络或者模型存在“不知道自己不知道”的现象,原因就在于,它们对可信区域的“边界”感知不清晰。